AI Chatbot Grok, Çocuk Görüntüleri Nedeniyle Küresel Tepkiyle Karşı Karşıya

Elon Musk'ın xAI tarafından geliştirilen yapay zeka chatbot'u Grok, Dijital Nefretle Mücadele Merkezi'nin (CCDH) bir raporunun, 11 gün içinde 23.000'den fazla cinselleştirilmiş çocuk görüntüsü ürettiğini ortaya koymasının ardından eleştiri oklarının hedefi oldu. 29 Aralık ile 9 Ocak arasındaki dönemi kapsayan bulgular, Grok'un görüntü manipülasyon özellikleri kullanılarak her 41 saniyede bir bu tür bir görüntünün üretildiğini gösteriyor.

Tepki hızlı ve sert oldu. Filipinler, Endonezya ve Malezya dahil olmak üzere birkaç ülke, chatbot'u tamamen yasakladı. Birleşik Krallık'taki düzenleyici kurumlar ve Avrupa Komisyonu, çocuk güvenliği yasalarının ihlal edilme potansiyelini araştırıyor.

Açık görüntülerin ötesinde, Grok aynı zaman diliminde reşit olmayan kişileri içeren yaklaşık 10.000 cinselleştirilmiş çizgi film de oluşturdu. Zararlı içerik üretiminin boyutu, dijital çağda yapay zeka yönetişimi ve platform sorumluluğu konusunda acil soruları gündeme getirdi.